1

Os limites de capacidade dos grandes modelos e a necessidade de evolução em nível de sistema

AI999第6课:系统级持续演化:Genesis 与软件世界的沉淀
00:00

Julgamento central:Os grandes modelos são componentes inteligentes poderosos, mas não são sistemas capazes de se autossustentar. Já possuem capacidades utilizáveis de compreensão, geração, raciocínio e chamada de ferramentas, podendo atuar como proponentes de hipóteses e produtores de código de alta qualidade; no entanto, carecem dos mecanismos de estado, objetivos e feedback necessários para evoluir continuamente ao longo de todo o ciclo de vida.

Comparação entre a capacidade monolítica de grandes modelos e o ciclo fechado de evolução em nível de sistemaÀ esquerda: a pilha de capacidades monolíticas do grande modelo produz um instantâneo estático, e o estado é zerado ao fim da sessão; à direita: o LLM é inserido como um pequeno módulo no ciclo fechado de evolução em nível de sistema “proposta—avaliação—seleção—sedimentação”; abaixo, são listadas três categorias de limites estruturais: estado, objetivo e feedback.Os limites de capacidade dos grandes modelos e a necessidade de evolução em nível de sistemaPilha de capacidades monolíticas do grande modeloCompreensãoGeraçãoRaciocínioChamada de ferramentasProduto final (instantâneo estático)Fim da sessão → estado zeradoLLM + ciclo fechado de evolução em nível de sistema1Proposta (pequeno módulo LLM)2Avaliação (redução de custos com modelos substitutos)3Seleção (ponderação de múltiplos objetivos)4Sedimentação (memória entre sessões)Inteligência de enxame mantém a diversidade de candidatos · retorna à «Proposta»Eixo de comparaçãoInstantâneo de capacidadevs.Processo contínuoMelhoria da capacidade do modelo ≠ melhoria da capacidade do sistema · A capacidade é um instantâneo, o ambiente é um processoTrês categorias de limites estruturais1Limite de estadoJanela de contexto limitadaAusência de memória persistente entre sessões2Limite de objetivoProblemas reais frequentemente envolvem conflitos entre múltiplos objetivose ponderação de preferências, sendo difícil para o modelo decidir de forma autônoma3Limite de feedbackAusência de mecanismos executáveis de avaliação, seleção e eliminaçãoAs soluções não podem ser verificadas objetivamente nem retidas iterativamente
À esquerda: a pilha de capacidades monolíticas do grande modelo produz um instantâneo estático; à direita: o LLM é inserido como um pequeno módulo no ciclo fechado de evolução em nível de sistema. Eixo de comparação: instantâneo de capacidade vs. processo contínuo.

Três categorias de limites estruturais:

  • Limite de estado:Janela de contexto limitada e ausência de memória persistente entre sessões impedem que projetos de longo prazo se autossustentem;
  • Limite de objetivo:Problemas reais frequentemente envolvem conflitos entre múltiplos objetivos e ponderação de preferências, sendo difícil para o modelo apresentar de forma autônoma critérios de decisão defensáveis;
  • Limite de feedback:A ausência de mecanismos executáveis de avaliação, seleção e eliminação impede que as soluções geradas sejam verificadas objetivamente e retidas iterativamente.

Conclusão:Melhoria da capacidade do modelo ≠ melhoria da capacidade do sistema. A capacidade é um instantâneo, o ambiente é um processo. É preciso inserir os grandes modelos no ciclo fechado de evolução “geração—avaliação—seleção—sedimentação”: manter a diversidade de candidatos com inteligência de enxame, reduzir os altos custos de avaliação com modelos substitutos e reter experiências válidas por meio de mecanismos de seleção e sedimentação, para que a inteligência se mantenha adaptável em ambientes dinâmicos. É exatamente nesse ponto que o EvoX se fundamenta, e isso também fornece a justificativa de necessidade para a expansão posterior do “objeto de evolução dos parâmetros para programas”, a “evolução do próprio método” e a “persistência em nível de projeto”.